기존 GigEVision vs CXP vs Zero Copy vs RDMA vs GPU 다이렉트 vs FPGA 카드

• 15년 이상의 광범위한 사용
• 완전히 승인되고 성숙한 표준
• 대규모 채택
• UDP 기반 프로토콜
• 진정한 스트리밍 프로토콜
• 멀티 캐스트 지원
• 필요한 모든 것을 갖추고 있습니다
• 고속에서 적절하게 설계된 수신기 필요

그림: GVSP 프레임 및 패킷 구조.

잠시 시간을 내어 GigEVision의 이면에 있는 기술을 이해하겠습니다. GVSP는 현재 표준에서 사용되는 이더넷 스트리밍 프로토콜입니다. 스트림은 여러 프레임(또는 이미지)으로 구성됩니다. 각 프레임은 리더 패킷, 여러 이미지(또는 페이로드) 패킷 및 트레일러 패킷으로 구성됩니다. 모든 패킷은 연결되지 않은 프로토콜인 UDP 이더넷 프로토콜을 따릅니다. 이것은 단순히 카메라가 패킷을 전송하고 수신기가 대상 버퍼에 데이터를 배치하는 작업을 맡는다는 것을 의미합니다. 연결되지 않은 프로토콜이라는 것은 최대 네트워크 성능으로 이어지는 네트워크 오버헤드가 없음을 의미합니다. 또한 멀티캐스팅과 같은 기본 기능이 지원됨을 의미합니다. 데이터 손실을 방지하려면 수신기를 적절하게 설계해야 합니다. CXP도 이와 동일한 프로토콜을 따르고 대상 버퍼에 데이터를 배치하는 작업을 수신기에 맡깁니다. 이것은 고품질 수신기로 최고의 성능과 최저 대기 시간 및 지터로 이어집니다. 일부 회사는 품질이 좋은 수신기를 설계할 수 없기 때문에 대체 경로를 선택하게 되었습니다.

이 짧은 애니메이션은 GigEVision 네트워크 패킷을 이미지로 분할하는 과정을 보여줍니다. 헤더, 리더 및 트레일러는 제어 프로세스에 의해 소비되는 반면 이미지 부분은 연속 메모리 버퍼에서 끝납니다. 이 프로세스에 소프트웨어를 사용하는 경우 전체 패킷이 메모리에 기록된 다음 이미지 부분을 메모리에서 읽어 비조각화(또는 연속) 방식으로 다른 메모리 위치에 다시 기록해야 합니다. 이 프로세스는 메모리 대역폭의 3배 비용이 드는 소프트웨어에서 수행하거나 최적의 성능을 위해 카드의 헤더 분할 기능으로 수행할 수 있습니다.

• 메모리 복사 필요(소프트웨어에서 헤더 분할)
• 더 높은 CPU %
• 3x 시스템 메모리 대역폭
• 3배 더 강력한 PC
• 3x PC 수량
• 1/3 시스템 밀도
• 고속에서 잘 설계된 수신기 필요

기존 GVSP는 소프트웨어에서 헤더 분할을 사용합니다. GVSP 패킷에서 헤더를 제거하고 페이로드 패킷의 이미지 데이터를 연속 메모리 버퍼에 저장합니다. 이 프로세스는 CPU 사용량을 높이지만 더 중요한 것은 3 복사 구현에 비해 0배의 시스템 메모리 대역폭 사용량. 그 결과 시스템에 대해 33%의 효율성이 발생합니다. 다양한 방식으로 시스템 비용에 포함됩니다. 이것은 잘못 설계된 수신기의 예이며 시장에 많이 있습니다. 10GigE에서도 여전히 이 작업을 수행하고 있지만 일부 회사는 단일 서버에서 여러 1GigE 카메라를 실행하는 데 문제가 있습니다. 모두 열악한 수신기 설계와 관련이 있습니다.

이 짧은 애니메이션은 제로 카피(또는 헤더 분할) 기술을 사용하지 않는 시스템의 XNUMX중 메모리 대역폭 사용을 보여줍니다. 이와 같은 시스템은 메모리 대역폭이 소진되어 데이터 손실이 발생할 수 있습니다. CPU와 메모리가 추가 전송을 허용하지 않을 때 네트워크 카드의 버퍼가 오버플로되면 데이터 손실이 발생합니다. 우연히 이것은 RDMA 지지자들이 전통적인 GigEVision 및 RDMA의 장단점을 논의할 때 비교하는 것입니다. 이것은 최악의 예이기 때문에 매우 오해의 소지가 있습니다.

그림: 기존 GigEVision + GVSP 구현의 데이터 경로.

• 진정한 제로 카피
• OTS NIC에서 헤더 분할(HS) 사용
• 전체 커널 우회
• M&E 시장에서 SMPTE 2110에 사용되는 HS
• 산업 처리 카드 지원
• 최저 대기 시간 및 지터
• 품질 구현으로 재전송 또는 흐름 제어가 필요하지 않음(필요하지 않음)
• GigEVision 준수 유지

Nvidia/Mellanox, Broadcom, Intel 및 Marvell의 최신 NIC를 사용하면 헤더 분할을 사용한 ZERO 복사가 실제로 가능합니다. Emergent는 RDMA/RoCE를 실험하는 사람들이 탐색하는 기본 NIC인 Nvidia/Mellanox 및 Broadcom과 함께 배포된 구현을 가지고 있어 상호 운용성을 둘러싼 모든 우려를 제거합니다. 사실, Emergent는 15년 이상 동일한 방법을 사용해 왔으며 신뢰성과 일치하는 모든 인터페이스 표준의 최대 설계 밀도를 가지고 있습니다. 대규모 미디어 및 엔터테인먼트 시장을 위한 ST2110에도 동일한 접근 방식이 사용됩니다.

그림(위): GigEVsion의 최적화된 구현에서 데이터 경로.
그림(아래): Emergent Vision Technologies의 파트너.

ZERO 복사는 모든 인터페이스 또는 프로토콜 구현에서 제로 데이터 손실을 보장하지 않습니다. 모든 성능 시스템은 여전히 ​​원하는 결과를 얻기 위해 적절한 설계와 마진이 필요합니다. 이는 CXP, RDMA/RoCE 및 최적화된 GVSP 구현에도 적용됩니다. 그러나 우리는 GigEVision을 점대점 프로토콜로 전환하지 않고 GigEVision을 수년 동안 가장 유연하고 대중적인 인터페이스로 만든 요소를 ​​제거하지 않고도 최적의 GVSP 구현이 RDMA/RoCE와 같거나 더 우수함을 보장할 수 있습니다. RDMA의 재전송 기능이 사용될 때 이것은 종종 바람직하지 않은 대기 시간과 지터의 신호이기도 한 시스템의 백업 신호라는 점을 상기하는 것이 중요합니다. CXP는 재전송 또는 흐름 제어를 사용하지 않지만 최적의 수신기 성능, 낮은 대기 시간 및 지터로 높은 데이터 전송 속도를 유지할 수 있음을 상기시키는 것도 중요합니다. 이 중 대부분은 제로 카피 기술과 CXP에 필요한 특수 목적 프레임 그래버의 적절한 버퍼링 때문일 수 있습니다. 저가형 NIC는 버퍼링 기능이 부족한 경우가 많지만 최신 NIC는 충분한 물리적 버퍼링을 통해 비용 효율적인 가격대에서 쉽게 사용할 수 있습니다.

25Gbps 이상에서는 친숙한 PoE(Power over Ethernet)가 죽었다는 점에 주목할 가치가 있습니다. 따라서 새로운 배치는 SFP 기술과 분산 전원 시스템에 초점을 맞춰야 합니다. 또한 10GigE 속도에서도 대형 NIC 제공업체가 PoE를 지원하지 않아 카메라 공급업체가 독점 카드 솔루션을 판매하도록 강요한다는 점도 주목할 만합니다.

이 짧은 애니메이션은 제로 복사를 사용하는 최적화된 GVSP 기반 시스템의 제로 복사 메모리 대역폭 사용을 보여줍니다. 이 애니메이션의 첫 번째 부분에서 시스템이 최적화되지 않아 네트워크 카드의 적절한 크기 버퍼가 오버플로되는 것을 볼 수 있습니다. 애니메이션의 두 번째 부분에서는 무복사 및 시스템 최적화 덕분에 데이터가 자유롭고 안정적으로 흐릅니다.

• 0 CPU 및 0 시스템 메모리 대역폭
• NVidia 제품에는 Windows용 Rivermax가 필요합니다.
• NVidia에는 ​​파트너십이 필요합니다. 소수만 선택하세요.
• Linux는 표준 GPU에서 직접 GPU용으로 열려 있습니다.
• Windows에서 80% MV 애플리케이션
• 일부 앱에는 AOI, 드론, VR, 스포츠가 포함됩니다.
• PC 요구 사항 감소
• 피어 투 피어 지원
• 지금 사용 가능합니다!

ZERO 복사는 메모리에 한 번만 기록하여 CPU 및 메모리 대역폭 사용을 최소화하지만 GPU에 직접 기록함으로써 이러한 전송을 모두 피할 수 있습니다. 이를 GPU 다이렉트라고 합니다. 그리고 많은 성능 응용 프로그램에서 처리를 위해 데이터를 GPU로 직접 보낸 다음 낮은 대역폭 결과를 사용자 또는 시스템 상호 작용을 위해 CPU 및 메모리로 가져가는 것이 합리적입니다.

Emergent는 다양한 애플리케이션에서 4년 넘게 Windows 및 Linux에서 Nvidia GPU로 GPU 다이렉트를 지원해 왔습니다. Nvidia RTXA6000/5000/4000, Orin 및 Xavier는 Emergent 카메라를 사용하는 많은 애플리케이션에 사용됩니다.

RDMA 사용자에게는 불행하게도 Nvidia/Mellanox는 Windows의 GPU Direct만 Emergent와 같은 파트너를 선택하도록 허용하며 이 OS는 머신 비전 애플리케이션의 80%가 계속 배포되는 곳입니다. 그러나 Linux는 모두를 위한 GPU Direct를 사용하는 RDMA의 옵션으로 남아 있습니다.

이 짧은 애니메이션은 메모리를 완전히 우회하고 0% 메모리 및 0% CPU 사용률을 위해 CPU의 PCIe 끝점만 활용하는 GPU 다이렉트를 사용하는 제로 전송 프로세스를 보여줍니다.

• 0 CPU 및 0 시스템 메모리 대역폭
• CPU가 전혀 관여하지 않음
• 기본 Emergent 제공 GVSP 코어 지원 또는 Xilinx 등의 OTS GVSP 코어가 포함된 OTS FPGA 카드
• 풍부한 MV 알고리즘
• 윈도우와 리눅스 지원
• PC 요구 사항 감소
• 피어 투 피어 지원
• 지금 사용 가능합니다!

ZERO 복사는 훌륭합니다. GPU 다이렉트는 이를 많이 개선합니다. 하지만 하나의 카드에서 카메라의 데이터를 모두 수신하고 처리한다면 궁극적인 성과가 될 것입니다. 이 경우 CPU, 메모리 및 모든 서버 리소스는 전혀 사용되지 않습니다. Emergent는 바로 이러한 목적을 위해 AMD/Xilinx Alveo 카드를 지원하고 있으며 이 기술을 활용하는 여러 성능 애플리케이션을 보유하고 있습니다. Emergent는 또한 Bluefield NIC 지원을 제공하기 위해 Nvidia와 긴밀히 협력하고 있습니다. Bluefield를 Nvidia NIC와 Nvidia GPU의 병합으로 생각하십시오. 두 경우 모두 컴퓨터는 선택한 카드에 주로 전원을 공급하는 초저사양 PC일 수 있습니다.

이 짧은 애니메이션은 0% 메모리 및 0% CPU 사용률을 위해 메모리와 CPU를 완전히 우회하는 FPGA 카드 프로세스를 보여줍니다.

다음은 Emergent의 모든 내용을 요약한 것입니다.

• 혁신과 고속 GigEVision 이미징 움직임의 개척에 대한 10개 이상의 상
• 10년 이상 배송 10GigE 140개 이상의 모델이 있는 카메라
• 5년 이상 배송 25GigE 55개 이상의 모델이 있는 카메라
• 2년 이상 배송 100GigE 16개 이상의 모델이 있는 카메라
• 카메라 기술 성능 리더
• 고속 이더넷/GigEVision에 집중
• 고속 이미지 데이터 처리 가능에 집중
• 영역 스캔 과 라인 스캔 모델
• 다중 스펙트럼 응용 분야를 위한 UV, NIR, Polarized, Color, Mono 모델
• 완전한 애플리케이션 유연성을 위한 Emergent eSDK
• 나타나는 eCapture 프로 고도로 포괄적인 소프트웨어 솔루션
• 고속 이미징 애플리케이션을 위한 가장 포괄적인 범위의 제품 및 지원
• 모든 속도, 모든 해상도, 모든 케이블 길이
• 지금 사용 가능합니다!

우리는 고속 GigEVision 제품에 중점을 둔 여러 상을 수상한 회사입니다.

우리는 수년 동안 다양한 속도의 제품을 배송했습니다. 10GigE ~까지 100GigE.

우리는 엔드투엔드 기술을 제공하고 고객 애플리케이션을 지원하는 데 중점을 두고 있습니다.

대부분의 애플리케이션 요구 사항을 충족할 수 있습니다.

마지막으로, 제시된 제품은 현재 구매 가능합니다.

다음은 에서 속도에 이르는 GigEVision 제품의 채택에 대한 빠른 스냅샷입니다. 10GigE ~까지 100GigE. Emergent는 최고의 성능을 달성할 수 있는 방법을 보여주었고 이러한 기술을 사용하여 머신 비전을 포함한 많은 시장을 열었습니다. 일부 회사는 이제 막 25G 및 더 빠른 속도의 제품을 출시하기 위한 우리의 노력을 활용하고 있지만 여전히 비준 및 성능 제품을 출시할 방법은 남아 있습니다.

그림: Emergent Vision Technologies는 10GigE, 25GigE, 50GigE 및 100GigE 인터페이스를 기반으로 하는 최초의 카메라 제공업체입니다.